Bộ phim được quay từ ngày 11 tháng 1 năm 1973 đến ngày 19 tháng 6 năm 1974.

Theo kịch bản ban đầu, Tom Hagen sẽ dan díu với vợ góa của Sonny dẫn đến xích mích trong nhà Corleone, nhưng đoạn này sau đó đã được bỏ khỏi kịch bản.

James Caan đồng ý quay trở lại với vai Sonny trong bữa tiệc sinh nhật của Vito với điều kiện là chỉ với cảnh phim đó, anh phải được trả số tiền bằng số tiền anh nhận được từ cả bộ phim trước. Marlon Brando cũng được đề nghị đóng trong cảnh này nhưng Brando cảm giác bị hãng Paramount đối xử tồi và ông đã từ chối quay lại đóng dù chỉ một cảnh phim. Cũng từ chối tham gia tiếp phần II là Richard Castellano, người thủ vai Pete Clemenza trong phần đầu. Nhân vật Frankie Pentangeli ban đầu được dự định chính là Clemenza nhưng sau khi đã phải thay thế vì Castellano đòi được viết phần thoại cho nhân vật Clemenza của ông này đóng trong phần II.

Bố già phần II là bộ phim lớn cuối cùng được quay bằng phim của hãng Technicolor.